范式转变
我们正从 “不惜一切代价追求性能” 的心态转向 负责任的人工智能（RAI） 框架。在这个新时代，技术上的成功严格取决于伦理稳健性和安全护栏。
1. 约束优化
历史上，目标是最小化损失函数 $L(\theta)$。新范式将人工智能视为一个约束优化问题：$$\max P \text{ subject to } C_1, C_2, \dots, C_n$$ 其中 $C$ 代表不可协商的安全与公平阈值。
2. “体外”与“体内”差距
模型常常在静态基准测试（体外）上取得最先进（SOTA）的结果，但在真实世界的社会技术环境（体内）中却因不可预见的交互而表现出灾难性故障。
左：高准确率/速度，零安全/透明度。右：代表安全、公平性和可解释性的平衡六边形。
示例：高频交易
仅追求性能的模型若实现投资回报率最大化即为成功。而 RAI 模型若实现了高投资回报率，却因缺乏市场稳定性保障措施而引发 “闪电崩盘” ，则被视为失败。